"Johor" có nguồn gốc từ tiếng Ả Rập Jauhar, nghĩa là 'ngọc'.[3] Người Mã Lai có khuynh hướng đặt tên cho một địa điểm theo các vật thể tự nhiên rất phong phú hoặc chiến ưu thế theo thị giác. Trước khi tên Johor được chấp nhận, khu vực ở phía nam của sông Muar đến đảo Singapore được gọi là Ujong Tanah hoặc 'đuôi đất' trong tiếng Mã Lai, do nó nằm ở tận cùng của bán đảo Mã Lai. Trùng hợp, Johor là khu vực cực nam của lục địa châu Á.[4]